Yamauchi sinh ra ở Kyoto với cha là ông Inaba Shikanojo và mẹ là bà Kimi. Cha ông đã bỏ rơi cả hai khi ông mới lên 5 tuổi, và mẹ ông không thể gánh vác việc làm mẹ đơn thân nên bà đã giao lại cho ông bà. Với việc ông của mình là chủ một doanh nghiệp, việc này đã giúp Yamauchi trở thành người thừa kế tương lai cả một công ty sau này sẽ trở thành Nintendo. Yamauchi được gửi đến một trường dự bị ở Kyoto năm 12 tuổi. Ông dự định học luật hoặc kỹ thuật, nhưng Thế chiến thứ II làm gián đoạn việc học. Vì còn quá trẻ để tham gia chiến đấu, ông được đưa vào làm việc trong một nhà máy quân sự. Khi chiến tranh kết thúc vào năm 1945, Yamauchi đến Đại học Waseda để học luật. Ông kết hôn với Inaba Michiko. Do sự vắng mặt của cha Yamauchi, ông bà của ông đã gặp để thu xếp cuộc hôn nhân.[6]